連州市地處南嶺之中的萌渚嶺南麓，境內崇山峻嶺，丘陵岡巒星羅棋布。主要山脈有綿延豐陽鎮(zhèn)、瑤安瑤族鄉(xiāng)一帶的簸箕山脈，主峰天堂嶺，海拔1712米，為市內最高峰，位于瑤安瑤族鄉(xiāng)與湖南省蘭山縣交界處；橫跨東部星子鎮(zhèn)潭嶺、龍坪鎮(zhèn)朝天、西江鎮(zhèn)一帶之大東山山脈，主峰巖坑山，海拔1604米，為連州市次高峰，位于龍坪鎮(zhèn)朝天與陽山縣交界處；其余山嶺多在海拔1000米以下。山地占全市總面積的72.2%，丘陵占15.9%。連州市地形，因東面有大東山脈，由東北向西南；西部有大龍山脈，由西北向西南；北部有簸箕山脈，形成西、北、東三面山地，中部稍低，均為丘陵地帶。星子、大路邊、龍坪、保安等鎮(zhèn)大部分地區(qū)為小盆地；西岸鎮(zhèn)清水、豐陽鎮(zhèn)南部、東陂鎮(zhèn)北部為丘陵盆地；西岸、東陂兩鎮(zhèn)河流兩岸為河谷盆地；保安、連州及九陂等鎮(zhèn)部分地區(qū)為丘陵盆地。連州市主要河流有星子河，發(fā)源于大東山脈，發(fā)源地近處建有一個大型的潭嶺水庫。保安河、東陂河發(fā)源于北部簸箕山脈，還有連南瑤族自治縣的三江河，流經該市連州鎮(zhèn)大巷口村附近匯入連江。